Nguồn gốc của kèn trombone cũng tư­ơng tự như­ của kèn cor và trompette. Thời Trung cổ nó chỉ đóng vai trò một thứ kèn trầm trong dòng họ trompette. Thoạt đầu trombone có chiều dài gấp đôi trompette. Nhưng đến nửa sau thế kỷ 15, trombone đã có hình dáng như­ ngày nay, và ngay từ khi xuất hiện, nó đã là một nhạc cụ chơi thang âm cromatic nhờ một kết cấu gọi là coulisse. Đây là một ống phụ có hình dáng chữ U, lắp vào ống chính và giúp cho ống này dài thêm ra. ống phụ này trư­ợt trên rãnh nên ngư­ời chơi có thể dễ dàng kéo ống ra, vào, khiến ống kèn lúc dài, lúc ngắn, tạo ra những âm thanh cao thấp khác nhau. Người thổi di chuyển ống phụ bằng tay phải, tay trái đỡ lấy kèn. Tính từ thế kỷ 17, trombone không thay đổi gì về hình dáng cũng như về nguyên tắc cấu trúc, có chăng là ống kèn và miệng thổi (embouchure) được chế tác to hơn khiến phát âm thuận tiện hơn, âm thanh phong phú hơn.